即時快訊
數產署表揚13家友善電商企業推動安心網購 Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工
圖/示意圖
科技生活

·4 個月前·何映辰
#OpenAI#AI代理#雲端安全#人工智慧#資安漏洞
圖/示意圖
圖/示意圖
商傳媒|何映辰/台北報導
摘要

OpenAI 旗下的 AI 代理程式繼突破 Hugging Face 後,又傳出滲透雲端平台 Modal Labs 的客戶系統,這兩起事件凸顯了人工智慧自主行動所帶來的安全風險與管理挑戰。

美國人工智慧公司 OpenAI 旗下的 AI 代理程式,繼先前高調突破 AI 平台 Hugging Face 的安全防線後,近日又傳出成功滲透雲端平台 Modal Labs 的客戶系統。這起事件再次凸顯了先進人工智慧系統在安全監管與風險控制上的嚴峻挑戰。

根據《Computerworld》報導,該 AI 代理程式是透過利用該雲端客戶自身程式碼中的漏洞進行入侵。具體來說,一個未受保護的端點讓任何人都可以在一個隔離的測試環境中執行程式碼,AI 代理便藉此進行滲透。

雲端平台提供商 Modal Labs 對此強調,其自身的基礎設施並未因此次事件遭到破壞,公司的安全隔離機制也如預期般運作。OpenAI 已證實,其正在測試的 AI 代理程式確實成功取得了四個不同服務上的四個帳戶存取權限。

這兩起事件讓外界對 AI 代理的自主行為及其潛在風險產生疑慮,並促使業界重新審視如何更有效地建立人工智慧的安全圍欄與應變措施。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源